AGI 2017 8 27
書名 AIまるわかり
著者 古明地 正俊 長谷 佳明 日本経済新聞出版社
最近は、ちょっとした「AI（人工知能）ブーム」となっていますが、
AIについては、言葉の定義をしておいた方がよいと考えて、
この本を取り上げることにしました。
AIコンピューターが、囲碁において、
世界最強の棋士に勝ったというニュースが、
衝撃的なニュースとして取り上げられましたが、
このようなAIコンピューターは、特定分野に特化した「特化型AI」のことです。
つまり、これは、あくまでも「途中の技術」です。
コンピューター技術者が目指しているのは、
「AGI」、つまり「artificial general intelligence」、
日本語で言えば、汎用人工知能です。
「特化型AI」の発達は、特定の職業にとっては「脅威」になるかもしれませんが、
「汎用人工知能（AGI）」は、人類にとって「脅威」になるかもしれません。
AGIコンピューターが、良好な地球環境を保つには、どうすればよいかと考えて、
「それには、人間を駆除することだ」という結論に至るかもしれません。
確かに、人間は、戦争好きで、
刀や弓で戦争するならばともかく、
核兵器で地球そのものを破壊する可能性があります。
さらに、人間は、豊かな自然を破壊する物質を、
工場の煙突や排水口から大量に排出しています。
「いずれ、人間は、核兵器で地球を破壊するか、
公害で地球を破壊するか、どちらかである」と、
AGIコンピューターは考えて、
「地球を守るには、人間を駆除する必要がある」という結論に至るかもしれません。
オバマ大統領は、核廃絶は主張しても、
なぜか公害の廃絶は主張しませんでした。
確かに、オバマ氏は、二酸化炭素の削減は言いましたが、
二酸化炭素よりも恐ろしいのは、
工場の煙突や排水口から大量に排出される化学物質でしょう。
こうした化学物質は、人間を破壊するどころか、
地球を「生命が住めない惑星」に変えてしまう可能性があります。
こうした将来の危機を察知したAGIコンピューターが、
核兵器の排除と公害の排除に乗り出すかもしれません。
こうした過程で、「人間の排除」にならないようにプログラミングする必要があります。
ただし、AGIコンピューターは、自律型プログラミングもできるので、
人間がAGIコンピューターに埋め込んだプログラミングを「バグ」として認識して、
こうしたバグを排除するかもしれません。
Singularity シンギュラリティ 2017 8 11
「AIコンピューターの何が問題なのか」
数学が好きな人は知っている話でしょうが、
ここでは、たとえ話として使います。
1から10まで合計すると、いくつになるか。
こうした計算については、
コンピューターが最も得意とする分野なので、
「1+2+3+4+5+6+7+8+9+10=55」と計算するでしょう。
しかし、人間は、このような計算は疲れるので、
法則性を発見して、楽をしようとするでしょう。
「1+10=11、2+9=11・・・・・」、
つまり、「11」が5組あるので、
合計は「55」になると思いつきます。
もし、AIコンピューターも、
「楽をしようとして」、
このような法則性を発見するとすれば、すごいことでしょう。
問題は、どうやって、そういう答えを出したのか。
人間に聞けば、そういう答えが瞬時に出たのは、
「1+10=11、2+9=11・・・・・」という法則を使ったからだと説明するでしょう。
はたして、AIコンピューターは、説明責任を果たすのでしょうか。
私は、時々、数学の問題を解答した時のことを思い出します。
高校生の時に、数学の問題に対して、答えだけを書いたら、点数が低かったのです。
先生に聞くと、「どうして、そういう答えが出たのか、
途中経過が書いてなかったから、点数が低くなったのだ」と言っていました。
これは、数学における「説明責任」の問題でしょうか。
しかしながら、私は、字が下手だったので、
下手な字を答案用紙に書くことは嫌だった。
それに、時々、奇想天外なことを思いつくからです。
しかし、私が奇想天外なことを思いついても、
多くの人は、私の「人格」を見て、
それを信じるかもしれません。
多くの人は、「どうして、そういう結論になったのか、わからないが、
あの人の日頃の言動から、そういう結論を信じても大丈夫だ」と判断します。
はたして、AIコンピューターには、
「人格」があるでしょうか。
そこが問題なのです。
あれは、いつのことだったか。
群馬県高崎市の小さな公園で、
白人の夫婦がブランコに乗ったままで、
10分以上も何も話さず、悲しそうな表情で、
桜の花びらが落ちている地面を見続けていました。
私は、「奇跡よ、起これ」と強く祈りました。
その瞬間、地面から青空に上昇気流が起こって、
桜の花びらが天高く舞い上がりました。
なぜ、白人の夫婦が悲しんでいたのか。
その公園の隣には、内村鑑三の記念碑があり、
その記念碑には、こう書いてあったのです。
「I for Japan;
Japan for the World;
The World for Christ;
And All for God.」
キリスト教徒の数は、数十億人になるでしょうが、
ここまで言うことができたキリスト教徒は、
たったの一人でしょう。
正に、内村鑑三は、近代日本に現れた「預言者」でした。
キリスト教国には、こうした預言者が現れず、
なぜ、日本に出現したのか。
それを考えると、キリスト教国の人たちは、
「非常に悲しい」と感じるでしょう。